Search

Estudo académico realizado no âmbito da iniciativa 5+5, destacando as perspetivas de cooperação em termos de defesa do ciberespaço. Três eixos ou tópicos principais foram identificados e abordados: análise do ambiente cibernético, ameaças e riscos cibernéticos e gestão de questões relevantes no ciberespaço. O relatório apresenta conclusões de cada eixo e um capítulo com a síntese de recomendações no âmbito da cooperação 5+5. info:eu-repo/semantics/publishedVersion

Las tecnologías emergentes relacionadas con el entorno cognitivo posibilitan la creación de un ecosistema híbrido entre el espacio físico y el digital en el que crecientemente se desarrolla la actividad humana. Su construcción ética y su posterior regulación jurídica han de considerar esta realidad híbrida y el uso dual de las tecnologías que sustentan el mundo digital. La elaboración de ambos códigos-ético y legal-puede extraer conclusiones interesantes de los principios que se están diseñando para los casos más extremos como los sistemas de armas autónomos letales, o la neurociencia o la biotecnología con su capacidad de suplantación de los sentidos o de alteración del sistema cognitivo. De estas experiencias, el artículo concluye que se debe mantener el foco en los valores humanos a preservar en este entorno -en especial, la libertad y la dignidad humanas-y no únicamente en las características tecnológicas del sustrato sobre elque se desarrolla la actividad. ----------ABSTRACT---------- Emerging technologies related to the cognitive environment make it possible to create a hybrid ecosystem between the physical and digital spaces in which human activity increasingly takes place. Their ethical structuring and subsequent legal regulation must be carried out bearing in mind their hybrid nature and the dual use of the technologies that support the digital world. The development of both type of codes -ethical and legal-can draw interesting conclusions from the principles that are being designedfor the most extreme cases such as lethal autonomous weapons systemsand neuroscience or biotechnology with their capacity to supersedethe senses or alter the cognitive system. From these experiences, the paper concludes that the focus must be maintainedon the human values to be preserved in this environment -especially human freedom and dignity-and not only on the technological characteristics of the substratum on which the activity is carried out.

La presencia constante de los sensores y dispositivos informáticos en la vida de las personas junto a la conectividad permanente suponen la aparición de un entorno de base digital que se fusiona con el material en la conformación del ecosistema en el que se produce la actividad humana contemporánea. Conceptos como el “entorno cognitivo”, la “infosfera” o la “noosfera” pretenden describir este escenario híbrido. Siendo así que la actividad social y política ha pasado a incluir esta nueva dimensión, los valores éticos y las normas jurídicas que la regulen deben también incorporar sus condicionantes. Disciplinas como la neurociencia o aquellas que configuran lo que se conoce como inteligencia artificial tienen la capacidad para alterar las percepciones y emociones que se basan en esta dimensión cognitiva. Dicha alteración afecta a derechos humanos fundamentales como la libertad o la autonomía y, por supuesto, a la dignidad humana. Todas ellas tienen aplicaciones de carácter dual, como herramientas en beneficio de la humanidad y como armas capaces de dañarla. La introducción de esta perspectiva resulta fundamental para establecer los límites que deben aplicarse a esas tecnologías desde su diseño hasta su desarrollo y empleo. Los códigos éticos desarrollados hasta el momento se centran en la identificación de los principios aplicables a cada una de las disciplinas, en lugar de hacerlo sobre aquellos que afectan a la sociedad resultante de su utilización. En el presente trabajo se parte del estudio de más de un centenar de códigos éticos elaborados en torno a la inteligencia artificial para extractar los principios comunes a todos ellos. Al objeto de introducir el elemento dual en su empleo se dedica también un capítulo a los principios identificados en el uso de los sistemas de armas autónomos letales como caso más extremo de aplicación de la inteligencia artificial. Sin embargo, más allá de los efectos cinéticos y letales que puedan tener los sistemas de armas, la manipulación de las percepciones y las emociones mediante el empleo de técnicas basadas en tecnologías digitales permite un condicionamiento de la libertad que también está siendo explotado comercial y políticamente. Estas técnicas publicitarias tienen una traslación directa al entorno militar y de inteligencia, y presentan una amenaza cierta al ejercicio de la libertad. La capacidad de manipulación discreta y ubicua está asociada a la creciente dependencia de los dispositivos vinculados al cuerpo. La generación de realidades sintéticas con la introducción de la realidad virtual o la aumentada no hará sino agravar esta tendencia. La adaptación de la ética y el derecho a esta nueva realidad es, por consiguiente, necesaria para que se adecúen al ecosistema híbrido en que realmente tiene lugar la actividad humana. ----------ABSTRACT---------- The continued presence of sensors and computing devices in people's lives, along with permanent connectivity, implies the emergence of a digital-based environment that merges with the material one in the shaping of the ecosystem in which contemporary human activity takes place. Concepts such as the "cognitive environment", the "infosphere" or the "noosphere" are intended to describe this hybrid scenario. Since social and political activity has come to include this new dimension, the ethical values and legal norms that regulate it must also incorporate its conditioning factors. Disciplines such as neuroscience or those that make up what is known as artificial intelligence have the capacity to alter perceptions and emotions based on this cognitive dimension. Such alteration affects fundamental human rights such as freedom or autonomy and, of course, human dignity. All of them have dual applications, both as tools for the benefit of humanity and as weapons capable of harming it. The introduction of this perspective is essential to establish the limits that must be applied to these technologies from their design to their development and use. The ethical codes developed so far have focused on identifying the principles applicable to each of the disciplines, rather than on those that affect society as a result of their use. This paper takes as its starting point the study of more than a hundred ethical codes developed in the field of artificial intelligence in order to extract the shared principles of all of them. In order to introduce the dual element in their use, a chapter is also devoted to the principles identified in the use of lethal autonomous weapons systems as the most extreme case of application of artificial intelligence. However, beyond the kinetic and lethal effects that weapon systems can have, the manipulation of perceptions and emotions through the use of techniques based on digital technologies enables a conditioning of freedom that is also being exploited commercially and politically. These advertising techniques have a direct translation to the military and intelligence environment, and present a certain threat to the exercise of freedom. The capacity for unobtrusive and ubiquitous manipulation is associated with the increasing reliance on body-linked devices. The generation of synthetic realities with the introduction of virtual or augmented reality will only exacerbate this trend. The adaptation of ethics and law to this new reality is therefore imperative for them to adapt to the hybrid ecosystem in which human activity actually takes place.

Los atentados del 11-S volvieron a poner en boga el término “guerra asimétrica” para hacer referencia al enfrentamiento entre fuerzas regulares e insurgentes. Un tipo de guerra que no libra los ejércitos equipados, sino milicias reclutadas por jefes autocráticos; las armas que emplean son de bajo coste, el campo de batalla se extiende por distintos espacios y los ataques tienen un carácter menos militar. Unas características que permiten a los más débiles hacer frente a los más fuertes, incluso, ponerlos en jaque. Dado que con la guerra asimétrica la violencia se propaga y penetra en todos los ámbitos de la vida social, y todo porque la parte más débil usa la comunidad como cobertura y base logística para dirigir ataques contra un aparato militar superior. No obstante, hay que señalar que la guerra asimétrica no es un fenómeno nuevo sino que se remonta a hace siglos. La cuestión es que ahora el hecho se ha visto agravado como consecuencia de la ofensiva iniciada por el DAESH para dañar la forma de vida occidental. Sus atentados han venido a dejar patente algo que era una crónica de una muerte anunciada, los países desarrollados son altamente vulnerables, y para generar el pánico entre la población civil de los mismos solo es necesario atentar en cualquier sitio donde haya mucha gente, o una infraestructura crítica, etc. Prácticamente cualquier objetivo es susceptible de poder sufrir un ataque terrorista, y eso hará que las guerras del siglo XXI sean predominantemente asimétricas, a diferencia de las anteriores que eran de carácter casi exclusivamente simétrico. No obstante, como escribió Clausewitz, cada tiempo tiene su forma particular de guerra.